Do Sequential Recommendation Benchmarks Really Require Higher-Order Sequence Modelling?
序列推荐基准是否需要高阶序列建模?
🧭 序列推荐基准评测 · 容量探针 ★ 深度解读
Spotify
用 recency 加权成对转移探针发现多数基准无需高阶建模,Transformer 增益被高估
📌 工作参考价值(4 点)
- 在电商/广告序列推荐中,先实现一个强 pairwise transition 基线(如 PCTM 或 SeqRules)作为“照妖镜”,避免被 Transformer 在弱基准上的虚假增益误导;尤其当数据规模小、用户行为以短会话为主时,简单模型可能足够。
- 评估新模型时,务必使用 full-catalogue ranking + seen-item filtering 的严格协议,不要用 sampled softmax 或 paper-to-paper 比较;否则像 TIGER 这类生成式推荐在 Beauty/Sports/Toys 上可能被简单探针反超 65-70%,说明基准本身不支撑 SOTA 宣称。
- PCTM 的工程实现很轻:离线统计有向转移计数(距离衰减),在线做加权 log-prob 求和;无 embedding、无序列编码器,适合作为召回通道或冷启动兜底,尤其适合需要快速上线的场景。
- 当你要引入 Transformer/LLM 做序列推荐时,先检查数据集是否“pairwise-sufficient”:如果成对转移+recency 已经解释了大部分 NDCG,那么高阶建模的增量有限,应优先投入特征工程或更真实的工业数据。